(网经社讯)11月5日,百度正式开源旗下最新基座大模型文心 5.5 Flash Base(ERNIE 5.5 Flash Base)。这是继文心 4.5 之后,百度再度对外释放千亿级基座权重,主打高效稀疏 MoE 路线,在推理、代码、长文本等多项基准拿到同尺寸最优水平,为企业、科研机构提供面向行业定制的预训练起点。
据介绍,文心 5.5 Flash Base 采用混合专家(MoE)架构,模型总参数量达 2800 亿,单 Token 仅激活 140 亿参数;依托 33.5 万亿 Token 完成从零预训练,预训练阶段上下文最长为 128K,在微调、推理场景最高可支持 100 万 Token 超长上下文输入,能够直接支撑巨量文档解析、多轮智能体、长链路代码阅读、整本专业文献研读等高门槛场景。
据网经社AI台(AI.100EC.CN)获悉,在技术设计上,模型以效率优化为核心,针对注意力机制、专家路由、长文本缓存体系完成整套改造。其自研 Latent-Gated Sparse Attention 隐门稀疏注意力方案,分层实现历史信息压缩与精细检索,大幅降低超长文本场景的显存占用与推理成本。官方评测显示,该模型在 30 项主流基准测试中,有 24 项排名第一,综合表现超过 DeepSeek-V4-Flash-Base、Hy3-preview-Base、MiMo-V2.5-Base 等同级别基座,在数理推理、代码生成、多语言能力、知识问答维度优势突出。
本次对外释放的是预训练终点原始权重,尚未经过指令微调、RLHF 等后训练流程,定位为纯粹的基础底座。开发者可基于这份权重开展领域适配、指令微调、行业对齐、学术实验,面向金融、法律、工业、科研等垂直赛道训练专属模型;百度同时透露,经过对齐优化、面向通用对话的文心 5.5 Flash 版本后续将择机推出。
模型权重已上线 Hugging Face,配套推理、微调工具链开放下载。本次模型采用自定义许可协议:非商用使用免费;相关业务年度营收不高于 5000 万美元,商用仅需标注 “Powered by ERNIE” 并完成告知;营收超过该门槛,需要取得百度单独书面授权;协议同时划定地域使用限制,欧盟、英国、韩国不在授权覆盖范围,且禁止利用该模型蒸馏、训练其他无关大模型,规避模型能力外溢风险。


























.png)


